Theo truyền thuyết nơi đây là một hồ lớn, sau người dân đắp đập cát chạy vắt ngang hồ để đi qua. Hồ lớn này từ đó bị chia thành 2 phần: tiểu hồ và đại hồ. Do "Bàu" trong tiếng địa phương nghĩa là "hồ" nên từ rất lâu, người địa phương đã gọi là tiểu hồ là Bàu.

Năm 1867 khi Nguyễn Thông đi ngang qua đây, thấy cảnh đẹp của Bàu Trắng mà cụ gọi là "Bạch Hồ". "Bạch Hồ" bắt đầu xuất hiện trong thơ của Nguyễn Thông và cũng từ đó trở thành tên mà giới thi nhân gán cho Bàu Trắng.